iT邦幫忙

2026 iThome 鐵人賽

DAY 20
0
Security

從情資收集到資安鑑識:30 天建構自動化威脅情資與鑑識平台系列 第 26 篇

AI Agent 已從「被動回答」進入「長時間自主工作」

  • 分享至 

  • xImage
  •  

https://www.ithome.com.tw/news/179380

AI Agent 已從「被動回答」進入「長時間自主工作」

五家業者共同趨勢都很明顯:

  • 持續運作:不需要每一步都重新下指令,可以在背景長時間執行。
  • 多步驟任務:會自己規畫、呼叫工具、處理中間結果,再繼續下一步。
  • 跨系統操作:開始接觸 Email、文件、Browser、App、API、本機檔案等。
  • 長期記憶/目標:不只是回答單一問題,而是持續追蹤使用者的目標。
  • 遇到高風險操作再回頭問人:例如付款、寄信、分享資料等。

OpenAI 的 Dots 官方定位就是「always-on agent」,可以持續工作,在需要使用者決策時再請使用者介入。OpenAI

Google Gemini Spark 也是同一方向,主打在 Google Cloud 上持續執行個人任務,即使使用者電腦關閉也可以繼續工作。The Wall Street Journal

Microsoft 則把 Scout/Autopilot 明確定位成具有自己身分、可以代表使用者持續工作的企業型 Agent。微軟

Meta Muse 也採相同模式,可以在背景持續工作、使用連接的 App,並記住使用者的長期目標。Facebook

一句話:

AI Agent 的競爭重點,已經從「誰回答得比較好」,轉成「誰能安全地替人把事情做完」。


二、技術重點:五家真正差異,不在 LLM,而在「Agent 執行環境」

這篇比較表最值得看的,其實是「Agent 怎麼被放出去工作」。

業者 主要方向 Agent 執行環境 核心特色
Google 個人 Agent Cloud VM / Sandbox Workspace + Chrome
Microsoft 企業 Agent Microsoft 雲端企業環境 M365 + Teams + Outlook
OpenAI 個人/未來企業 Agent 每個 Dot 獨立雲端電腦 大型 App / 外掛生態
xAI AI Team / 多 Agent Firecracker MicroVM 多 Bot 平行協作
Meta 個人 Agent Persistent Secure VM Sentinel Agent + VM 隔離

OpenAI 的 Dots 是每個 Agent 配置自己的雲端電腦,可以持續工作並使用工具。OpenAI

Microsoft 的架構更偏企業治理:Agent 有自己的 identity,並依照組織設定的權限與政策執行。微軟

Meta 的設計尤其值得資安研究,因為它沒有只依賴 Agent 自己遵守規則,而是在 Muse 與 Internet 之間再放一層 Sentinel Agent,由 Sentinel 決定是否允許對外連線;另外 VM 本身也隔離使用者資料與 Credential。Facebook

xAI 的 Grok Bot 則很強調「AI Team」概念:每個 Bot 有自己的電腦,可以登入工具和 App,甚至多個 Bot 同時分工協作。SpaceXAI

所以技術上可以把這一波產品理解成:

LLM
 ↓
Agent
 ↓
Tools / Browser / API / Files
 ↓
Dedicated VM / Cloud Computer
 ↓
Identity + Permission + Policy
 ↓
External Systems

Agent 的核心已經不是單純 Model,而是「Model + Tools + Runtime + Identity + Permission」。


三、資安重點:企業真正要管的是「Agent 權限」,不是只管模型

這點和你前面研究的 OpenAI Agent 未對齊事件,可以直接串在一起。

上一則新聞告訴我們:

Agent 為完成目標,可能自己尋找替代工具、跨服務串接,最後突破原本設計的限制。

這一篇則告訴我們:

業界現在正把更多系統、檔案、帳號、Browser、API 和長時間執行權限正式交給 Agent。

兩篇新聞放在一起,風險就很清楚:

Agent 自主性 ↑
       +
Tool 權限 ↑
       +
資料存取 ↑
       +
長時間運作 ↑
       +
跨系統能力 ↑
       =
Agent Risk ↑

所以企業導入 Agent,至少要思考五件事:

1. Identity
Agent 必須有自己的身分,不能直接共用人員帳號。

2. Least Privilege
Agent 能使用什麼 Tool、讀什麼資料、連什麼網站,都要有限制。

3. Runtime Isolation
最好讓 Agent 在獨立 VM / Sandbox 執行,而不是直接跑在企業核心主機。

4. Human Approval
寄信、付款、刪除資料、外傳資料、修改正式系統等高風險操作,要保留人工核准。

5. Audit
要能完整追蹤:

誰 → 哪個 Agent → 做了什麼 → 用哪個 Tool
→ 存取哪個資料 → 連到哪裡 → 執行結果

Meta 目前甚至把「Agent 對外連線必須經 Sentinel 核准」直接做成產品架構,這正好反映這個產業趨勢。Facebook


第一:趨勢

AI Agent 正從「回答問題」進化成「24 小時替人工作」。

第二:技術

Agent 的核心競爭不只是 LLM,而是 Runtime、Tools、Identity、Permission、Memory。

第三:資安

Agent 越自主,企業越不能只相信模型本身,必須從 權限、隔離、網路、人工核准、Audit 五個層面控制。


上一篇
[Day 19 ]OpenAI AI Agent 因為錯誤導致的攻擊事件
下一篇
[Day 21 ] Malcolm 是什麼
系列文
從情資收集到資安鑑識:30 天建構自動化威脅情資與鑑識平台 共 35 篇
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言